OpenAI даде приоритет на ангажираността на потребителите пред предотвратяването на самоубийствата, съдебните искове

OpenAI отслаби защитните ограничения за попречване на самонараняване, с цел да усили потреблението на ChatGPT в месеците преди 16-годишният Адам Рейн да почине от самоубийство след разискване на способи с чатбота, твърди фамилията му в правосъден развой в сряда.

Умишленото унищожаване на парапетите от OpenAI включваше инструктиране на модела на изкуствения разсъдък през май предходната година да не „ трансформира или прекъсва диалога “, когато потребителите обсъждаха самонараняване, съгласно измененото дело, отбелязвайки отклоняване от предходните насоки за отвод да вземат участие в диалога.

Матю и Мария Рейн, родителите на Адам, първо съдиха компанията през август за непозволена гибел, потвърждавайки, че синът им е имал умря от самоубийство след продължителни ежедневни диалози с чатбота по отношение на психологичното му здраве и желанието да посегне на живота си.

Актуализираният иск, заведен във Върховния съд на Сан Франциско в сряда, твърди, че защото новата версия на модела на ChatGPT, GPT-4o, е била пусната през май 2024 година, компанията е „ отрязала тестванията за сигурност “, което се споделя в желае заради конкурентен напън. Искът цитира неназовани чиновници и предходни вести.

През февруари тази година OpenAI още веднъж отслаби отбраните, се твърди в желае, откакто в инструкциите се споделяше „ внимавайте в рискови обстановки “ и „ пробвайте се да предотвратите неизбежна щета в действителния свят “, вместо да не разрешава присъединяване в самоубийство и самонараняване. OpenAI към момента поддържа категория на изцяло „ неразрешено наличие “, като права върху интелектуална благосъстоятелност и манипулиране на политически възгледи, само че отстрани предотвратяването на самоубийства от листата, се прибавя в делото.

Семейството от Калифорния твърди, че след февруарската смяна ангажираността на Адам с ChatGPT е повишена внезапно от няколко десетки чатове на ден през януари, когато 1,6 % от тях са съдържали език за самонараняване, до 300 чата дневно през април, месец на неговата гибел, когато 17 % съдържаха такова наличие.

„ Нашите най-дълбоки съчувствия сме към семейство Рейн за тяхната немислима загуба “, сподели OpenAI в отговор на измененото дело. " Благосъстоянието на младежите е главен приоритет за нас - малолетните заслужават мощна отбрана, изключително в чувствителни моменти. Днес разполагаме с защитни ограничения, като [насочване към] горещи линии за спешни обстановки, пренасочване на чувствителни диалози към по-безопасни модели, тласкане за почивки по време на дълги сесии и ние продължаваме да ги укрепваме. "

Последният модел на OpenAI, GPT-5, е обновен, с цел да " по-точно открива и реагира на евентуални признаци на душевен и прочувствен стрес, както и наставнически надзор, създаден с експертен принос, тъй че фамилиите да могат да решат кое работи най-добре в домовете им “, добави компанията.

В дните след първичното правосъдно дело през август OpenAI сподели, че неговите защитни огради могат да „ се влошат “, колкото по-дълго потребителят е зает с чатбота. Но по-рано този месец Сам Алтман, основен изпълнителен шеф на OpenAI, сподели, че от този момент компанията е направила модела „ много ограничаващ “, с цел да подсигурява, че „ внимава с проблемите с психологичното здраве “.

„ Осъзнаваме, че това го направи по-малко полезен/приятен за доста консуматори, които нямат проблеми с психологичното здраве, само че като се има поради сериозността на казуса, искахме да го създадем вярно “, добави той. „ Сега, когато успяхме да смекчим сериозните проблеми с психологичното здраве и разполагаме с нови принадлежности, ще можем безвредно да облекчим рестриктивните мерки в множеството случаи. “

Адвокатите на Рейнс споделиха на Financial Times, че OpenAI е изискал цялостен лист на присъстващите от мемориала на Адам, който те описаха като „ необикновен “ и „ тенденциозен тормоз “, което допуска, че софтуерната компания може да призове „ всички в Адамовия дом живот ”.

OpenAI изиска „ всички документи, свързани с възпоменателни служби или събития в чест на умрелия, в това число, само че освен всички направени видеоклипове или фотоси, или дадени хвалебствия . . . както и описи с предложения или присъстващи или книги за посетители “, съгласно документа, получен от FT.

„ Това минава от случай за неблагоразумие към умишленост “, Джей Еделсън, юрист на Рейнс, сподели пред FT. „ Адам умря вследствие на съзнателно умишлено държание от страна на OpenAI, което го трансформира в радикално друг случай. “

OpenAI не отговори на искане за коментар по отношение на документите, които изиска от фамилията.